![arxiv：2405.16674v3 [cs.lg] 2025年3月1日](/simg/d/d85c999e8c53c7731a2b3ec4d2b00cf30d0b1dc1.webp)
机构名称：
¥ 3.0
尽管取得了成功，但深度学习模型与需要综合推理和功能组成的任务斗争。我们对此类任务中结构化状态空间模型（SSM）和变压器的局限性进行了理论和实证研究。我们证明，如果没有不切实际的状态尺寸，即使在链链的提示中，一层SSM无法有效地在大域上表现函数组成，它们也需要许多步骤，以使功能组成的复杂性不利地扩展。另外，有限精确的SSM的语言在普通语言类别中。我们的实验证实了这些理论发现。评估模型，包括各种功能组成设置，多位数乘法，动态编程和爱因斯坦的难题，即使使用高级提示技术，我们也会发现大量的性能下降。模型通常诉诸捷径，导致复合错误。这些发现突出了植根于其计算能力的当前深度学习体系结构内的基本障碍。我们强调了创新解决方案的需求，以超越这些联系并实现可靠的多步推理和组成任务解决，这对于迈向通用人工智能至关重要。
arxiv：2405.16674v3 [cs.lg] 2025年3月1日
主要关键词
![arxiv：2405.16674v3 [cs.lg] 2025年3月1日PDF文件第1页](/bimg/2/252fbb7d6dfe8b7b8b91126e4330acb6c70db09d.webp)
![arxiv：2405.16674v3 [cs.lg] 2025年3月1日PDF文件第2页](/bimg/5/5837c84e43772d0a7aab70b6a3294a38e546096c.webp)
![arxiv：2405.16674v3 [cs.lg] 2025年3月1日PDF文件第3页](/bimg/1/15635b9679ca942d7b9474aa3b3037e918113538.webp)
![arxiv：2405.16674v3 [cs.lg] 2025年3月1日PDF文件第4页](/bimg/f/f152742f9d2b0d5ab47bd5d56a3b6dd0f69d7779.webp)
![arxiv：2405.16674v3 [cs.lg] 2025年3月1日PDF文件第5页](/bimg/7/7e7f7d61fe9c0853d249bcc1b502cef54d447f1c.webp)
相关文件推荐
![arxiv：2503.00388v1 [Quant-ph] 2025年3月1日](/simg/4/436b4cba32137f0410fc8b28cbdebd4ad3d934c7.webp)
![arxiv：2503.00396v1 [Quant-ph] 2025年3月1日](/simg/4/4d38ed02123f4c38ca83bbc177612d51f67fe776.webp)
![arxiv：2503.00261v1 [Math.ca] 2025年3月1日](/simg/5/51260f1baf682b036f8d38e1c4a3d438c1269b51.webp)
![arxiv：2503.00450V1 [CS.CV] 2025年3月1日](/simg/7/70f98bbcfaa2f06bb6204e86710947587f3aa6fc.webp)
![arxiv：2503.00289v1 [physics.bio-ph] 2025年3月1日](/simg/8/8a7edae2917ddf2b6be5c2c146c4bc62338cf57a.webp)
![arxiv：2405.10948v3 [CS.CV] 2025年3月16日](/simg/5/52e2542801da08e439a4b0a313c060b771dce37d.webp)
![arxiv：2405.20488V2 [CS.DC] 2025年3月5日](/simg/c/caa3abca9c2fffd3c1ff1dfe61c325c38a7693fe.webp)
![arxiv：2503.00549v1 [econ.em] 2025年3月1日](/simg/2/24de4f2acf478b4c59064319be870a8e1eedfbe2.webp)
![arxiv：2503.00630v1 [cond-mat.soft] 2025年3月1日](/simg/2/2da9df2add3cf9537d7c8e34df443baae0c99c68.webp)
![arxiv：2503.04516v1 [cs.hc] 2025年3月6日](/simg/9/9f9cbbe565b0ca010f3628ce2b0ee4356426bf1f.webp)
![arxiv：2503.09317v1 [cs.cr] 2025年3月12日](/simg/e/eb3b08946ddfe0504714c79cb60692617b070324.webp)
![arxiv：2503.07465v1 [cs.cv] 2025年3月10日](/simg/a/af2a7dce29aefe4e4b6e956d62ebff4e79d71644.webp)
![arxiv：2402.05916v2 [cs.lg] 2025年3月20日](/simg/b/b30d205a9f7378a54f50b26f9d9383b2f5b17f72.webp)
![arxiv：2503.09833v1 [cs.lg] 2025年3月12日](/simg/1/128387c25c3fb10fe1dd3c3a0aed6c201a08b820.webp)
![arxiv：2503.18461v1 [cs.cv] 2025年3月24日](/simg/5/5112f9b35601769fb8dd4c2015d29d146660efbe.webp)
![arxiv：2411.15692v2 [cs.lg] 2025年3月5日](/simg/6/6641ee1e32ce1aa25642a14b9d72ab342268efe5.webp)
![arxiv：2503.03618v1 [cs.dc] 2025年3月5日](/simg/4/40527f32c822586d79f6712a223542ee3654e7c0.webp)
![arxiv：2503.03142v1 [cs.lg] 2025年3月5日](/simg/8/8fcd56268fa422828971d1fed512e1dac169f271.webp)
![arxiv：2503.08960v1 [cs.cv] 2025年3月11日](/simg/3/3936df9217dd73de8ba2b35f36aa80fd0935ff57.webp)
![arxiv：2503.07135v1 [cs.ro] 2025年3月10日](/simg/9/95c6cba6c5e1c198c689745e461ebe0d5e5fa688.webp)
